Process Reward Informed Tree Rollout for Effective Multi-Turn RL
过程奖励驱动的自适应树展开多轮智能体强化学
🧭 多轮Agent RL · 树展开探索
UC San Diego · Amazon
基于中间过程评分引导树展开，使多轮Agent RL训练更高效，SWE-Bench提升5.0点
📌 工作参考价值（4 点）
- 在多轮对话推荐/搜索中，可将完整对话轨迹组织为树，利用用户中间信号（如点击、停留）或任务子指标做过程评分，及早剪枝无效分支，节省推理成本。
- 对于电商购物助手等多步Agent，把任务分解成子步骤并训练轻量过程评分器，在RL训练时动态分配采样预算，避免在死胡同路径上浪费rollout。
- 借鉴共享前缀复用机制：不同分支共享前半段合理交互，避免重复生成相同历史，显著提升训练吞吐。
- PATR与GRPO/PPO等标准策略优化兼容，可直接嵌入现有LLM Agent训练管线，只需额外训练一个过程奖励模型（可利用业务已有反馈信号），工程落地容易。